Hay una creencia cómoda y peligrosa que sostiene buena parte de la conversación pública sobre tecnología: que las máquinas son neutrales. Que un algoritmo, a diferencia de un humano, no tiene prejuicios. Que precisamente por ser frío, matemático, automático, el software nos protege de la parcialidad humana.
Es exactamente al revés. Un algoritmo no es neutral — es un espejo amplificado de los datos con los que se entrenó, y esos datos cargan toda la historia de sesgos de la sociedad que los produjo. La diferencia con un humano prejuicioso es de escala: un juez parcial daña a las personas que pasan por su sala; un algoritmo parcial daña a millones, a velocidad de servidor, con la pátina de objetividad que le da el hecho de ser una máquina. Por eso esta es, para mí, una de las conversaciones más urgentes que un colegio puede tener con sus alumnos.
El espejo amplificado
El mecanismo es sencillo de entender, aunque sus consecuencias sean enormes. Un modelo de IA aprende patrones a partir de datos históricos. Si esos datos reflejan una sociedad donde, digamos, ciertos puestos los ocuparon mayoritariamente hombres durante décadas, el modelo “aprende” que ese patrón es la norma — y lo reproduce. No porque tenga una intención misógina. Porque está optimizado para replicar lo que vio.
Hay casos documentados que valen más que cualquier explicación abstracta. Un sistema de reclutamiento automatizado de una gran empresa tecnológica penalizaba currículums que incluían la palabra “femenino” (como en “club de ajedrez femenino”), porque históricamente la empresa había contratado más hombres y el modelo lo interpretó como señal de éxito. Sistemas de reconocimiento facial que fallan mucho más con rostros de piel oscura, porque se entrenaron mayoritariamente con rostros claros. Algoritmos de aprobación crediticia que ofrecían límites más bajos a mujeres con el mismo perfil financiero que hombres, sin que sus propios diseñadores supieran exactamente por qué.
Ninguno de estos sistemas fue programado para discriminar. Todos discriminaron. Esa es la lección incómoda: la injusticia algorítmica rara vez es malicia. Es negligencia heredada, automatizada, escalada.
Por qué esto le importa a un adolescente mexicano
Podría parecer que estos son problemas de Silicon Valley, lejanos a un colegio en Guadalajara o en la Ciudad de México. No lo son, por dos razones.
La primera: los adolescentes mexicanos ya viven dentro de sistemas algorítmicos que toman decisiones sobre ellos. Qué videos ven, qué noticias les llegan, qué publicidad los persigue, eventualmente qué crédito les ofrecerán y qué trabajos les recomendará una plataforma. Crecer sin entender que esos sistemas tienen sesgos es crecer indefenso ante ellos.
La segunda, y más esperanzadora: esta generación va a construir los algoritmos de las próximas décadas. Los que hoy tienen catorce años serán los ingenieros, los diseñadores de producto, los reguladores y los empresarios que decidan cómo se entrenan los próximos sistemas. Si aprenden, desde ahora, a preguntarse “¿este sistema trata a todos por igual?”, construirán tecnología más justa. Si no lo aprenden, repetirán los errores que hoy criticamos, sin darse cuenta.
El algoritmo de los dulces
En el currículum de SynaptIA, esta conversación empieza en primaria con un ejercicio que llamamos “el algoritmo de los dulces”. Es deliberadamente simple, porque la justicia algorítmica no requiere matemáticas avanzadas para entenderse — requiere intuición moral, y los niños la tienen de sobra.
Les pedimos a los niños que diseñen las reglas de una máquina que reparte dulces en el salón. Casi siempre, las primeras reglas que proponen son injustas sin querer: “que le toque más al que llegó primero”, “al que tiene mejores calificaciones”, “al que levantó la mano más rápido”. Y entonces conversamos: ¿qué pasa con el niño que llega tarde porque su mamá trabaja lejos? ¿Con el que tiene una calificación baja porque batalla con una materia? ¿Con el tímido que no levanta la mano?
Los niños descubren, solos, que una regla aparentemente objetiva (“el que llegó primero”) puede esconder una injusticia profunda. Y descubren algo más importante: que las reglas se pueden reescribir. Que un algoritmo injusto no es un destino — es una decisión que alguien tomó y que alguien más puede corregir. Esa es la semilla de toda la dimensión cívica del programa.
En secundaria y bachillerato, el ejercicio se vuelve sofisticado: los alumnos auditan sistemas reales, identifican sesgos en respuestas de IA, y discuten casos documentados. Pero la intuición moral que se ancla en primaria con los dulces es la que sostiene todo lo demás.
La frase que cierra el círculo
Hay una frase que repetimos en el manifiesto de SynaptIA y que me parece la síntesis de todo esto: “Un algoritmo injusto crea una sociedad injusta”. No es una metáfora. Es una descripción literal de cómo funciona la tecnología a escala.
Cuando un sistema de crédito niega préstamos sistemáticamente a un grupo, no solo comete una injusticia individual — reproduce y profundiza una desigualdad estructural, préstamo a préstamo, millones de veces. Cuando un algoritmo de contenido aprende que el contenido indignante genera más interacción, no solo molesta a usuarios individuales — degrada la calidad de la conversación pública de un país entero. Los algoritmos no son neutrales y no son inofensivos: son fábricas de sociedad, operando a una velocidad que ningún humano podría igualar.
Formar a una generación capaz de mirar un algoritmo y preguntarse “¿esto es justo?” no es una sofisticación opcional del currículum. Es, posiblemente, la habilidad cívica más importante que podemos enseñarle a quienes van a heredar un mundo mediado por máquinas. La técnica les conseguirá un trabajo. La justicia algorítmica les conseguirá una sociedad en la que valga la pena tenerlo.
Miguel Ángel Gabayet es fundador de SynaptIA. Este ensayo desarrolla la tesis del pilar de Justicia Algorítmica del currículum SynaptIA.
¿Has visto un caso de injusticia algorítmica que te haya marcado? Escríbeme: miguel@synaptia.mx